Phạm Ngọc Thạch lập gia đình năm 1936 tại Việt Nam với Marie Louise, người từng làm y tá tại bệnh viện lao tại Pháp mà ông từng làm việc.[1] Ông bà có hai người con là Colette Như Mai và Alain Phạm Ngọc Định. Từ năm 1936 cho đến trước cuộc Cách mạng tháng Tám, gia đình ông sống tại Sài Gòn.[1]

Sau khi vào chiến khu của Việt Minh, ngày 23 tháng 9 năm 1945, vợ và các con ông ở lại Sài Gòn. 5 năm sau, Marie Louise mang các con quay về Pháp. Bà nuôi các con trong tình cảnh khó khăn về kinh tế và bị kỳ thị do có chồng là "trùm cộng sản".[5]

Khi được tin Phạm Ngọc Thạch đã chuyển công tác ra Hà Nội, Marie Louise đưa các con về Việt Nam định cư tại Hà Nội, nhưng sau một thời gian ngắn cả ba lại quay về Pháp. Bà quay lại nghề y tá và ủng hộ các hoạt động chống chiến tranh Việt Nam.[5]

Người con trai của Phạm Ngọc Thạch là Alain Phạm Ngọc Định tuy định cư tại Pháp nhưng lấy quốc tịch Việt Nam.[6]